查看原文
其他

“嵌入式AI”趋势渐显,正酝酿一场改写云计算未来的风暴丨科技云·视角

云视角 科技云报到 2023-08-09

这是一场互联网边缘发迹的革命。GoogleAmazonBAT等重量级科技巨头玩家,此前早已盯准了云端的超级赛道。随着AI和分布式计算的发展,另一场革命风暴在边缘开始酝酿


在传统的架构下,AI大多依靠云端联网和数据中心实现数据的存储和计算。然而,传统以云为中心的构架方式并非在任何情况下都是最理想的解决方案,比如对信息安全的担忧以及功耗对产品设计带来的挑战等。


随着技术的发展,一个巨大的机会正在远离传统数据中心的互联网边缘产生——嵌入式AI正受到越来越广泛的重视,未来发展将使距离用户“最后一公里”的设备端具有更高智能。


云端具备连结多方大数据超强计算力的优势,在AI发展中占据着不可替代的作用但如果这些网络节点所抓取的数据都上传云端进行智能处理或深度学习,对网络带宽将提出巨大挑战


此外,另一挑战就是功耗设备端大量采用电池供电,比如智能移动设备、新能源汽车等都对设备功耗提出越来越高的要求。


远离BAT远离云

           “嵌入式AI”星火燎原


传统云计算的优势在于,服务器存储的数据量大计算准确性高计算能力强,通常用于单次、不连续的计算任务请求。


比如Face++提供API接口的人脸识别云服务、科大讯飞语音识别云服务、图普科技图像内容审查云服务等,这些都需要把计算任务通过网络上传云端,云端计算完成后再把结果传回本地。


虽然云计算计算能力强大,但是也有弊端,很多计算场景是需要在本地进行的。


所谓“嵌入式AI”,实则是一种本地计算,又称边缘计算。其和云计算类似,都是处理大数据的计算运行方式


但与云端智能不同的是,嵌入式AI无需数据上传到BAT或第三方数据中心,边缘侧、本地设备端终端即可进行实时环境感知、深度学习、人机交互决策控制等相关算法解决问题


AI领域,很多应用场景都需要在本地终端进行计算,比如机器人、无人机、汽车以及手机等。


目前很多AI产品在性能、精度、功耗、成本等方面都或多或少存在体验不高难题,这些问题也都制约AI的进一步发展可喜的是,嵌入式AI的出现为这些体验痛点提供了最佳解决方案

 

不过,这并不意味着嵌入式AI将代替云计算。在云、管、端三者的角色中,云计算侧重于云,实现的是最终数据分析与应用的场所,而嵌入式AI则强化了设备端的重要性,满足了实时性数据分析和智能化处理需求,也更加安全和高效。


未来的机器学习、深度学习会在云端和终端协调发展,不一定所有AI都要在云里实现。


比如自动驾驶领域,辅助驾驶系统如果在云端计算,设备端采集到数据后上传,计算完成后再返回终端,这样会不可避免地带来一定延时,而在驾驶场景中,这种延时意味着危险系数的提高。



嵌入式AI面临的三座大山:

         计算力差、功耗高、成本问题


曾有科学家预言,人类只要有五台超级计算机就可以满足全人类的计算需求。一些公司也曾经推出过网络计算机,但因为网络传输能力和任务响应时间等问题,个人计算机和本地服务器在很长时间内还是占据了主流。


随着网络带宽的提升和技术的升级,云计算以更出色的成本优势又逐渐回到了人们的视野。

 

算力有限也是制约嵌入式AI发展的一大桎梏。众所周知,AI涉及到的计算都异常复杂,对于计算力的要求特别高。


如果将AI的算法放置于本地,意味着原来CPU架构可能要上升,也有可能会想要加一些单独处理的单元。


如果不加单独处理的单元,运算能力则根本无法跟上需求。如果加了又会面临成本的提升,如果利用原来的CPU或GPU,它的精度可能又达不到,这就会面临很多问题。


此外,还有一个就是功耗问题。在终端上的AI,必须要实现低功耗。但功耗太低,则无法实现智能。既要实现高性能,又要满足计算能力很高的要求,鱼和熊掌兼得确实非常困难。功耗一旦控制的不好,最后的产品体验也一定很差。

 

如果未来芯片在终端侧无法满足实时本地处理的需求,势必会出现一类全新的AI专用芯片,这也是为何最近芯片厂商尤为活跃的原因。


基于此,未来AI技术的发展将是两种趋势:通用和垂直。


在通用和垂直AI领域,巨头和创业企业都有各自的优势和机会。在智能化通用技术领域,由于AI所需的软件算法解决方案超出了传统芯片公司的边界,Intel、NVIDIA这样更具人才、资源和科研资源的巨头企业具备更强优势。


但在深度学习这类对专业要求更高的领域,像地平线、寒武纪这样的创业企业更有机会。


对于AI应用来说,“端+云”的趋势已经非常明确,一些计算压力可以由终端设备分担,提供非常快的即时响应能力。当更多数据汇聚到云端,使得到云端AI具备大规模数据挖掘的能力,“云+端”则是更优的AI组合方案,两者不可偏废


如今,嵌入式AI解决方案仅仅迈出了一小步,还有很多地方需要探索和完善,这需要打通包括算法、芯片、数据、应用、终端等在内的产业链上下游各个环节,通过多方参与协同努力,才有可能看到AI真正走入寻常百姓家的一天。

 


 相关阅读


边缘计算崛起,将成为云计算的“终结者”?

造概念or真需求?边缘计算的市场到底有多大?

从边缘计算到边缘智能 还有多少“边缘”的路要走?


【科技云报道原创】

转载请注明“科技云报道”并附本文链接


您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存